#вывод членства11.06.2025
Прорыв Meta: новая методика измеряет, сколько языковые модели запоминают на уровне бит
Meta и партнёры разработали новую методику для точного измерения запоминания языковых моделей, показав, что GPT хранит около 3,6 бит на параметр, и предоставили важные инсайты о различии между запоминанием и обобщением.